Balck chào đời ngày 7 tháng 12 năm 1893 tại Danzig - Langfuhr, Đông Phổ (nay là Wrzeszcz, Ba Lan), là con trai của ông William Balck và bà Mathilde, nhũ danh Jensen. Gia đình ông là một gia đình có truyền thống quân sự lâu đời, cụ cố ông từng phục vụ Binh đoàn Đức của Đức vua – một đơn vị lính Đức chiến đấu cho quân đội Anh dưới quyền Quận công Wellington – còn cụ nội ông từng là sĩ quan trong Trung đoàn Sơn cước Argyll và Sutherland của Anh. Cha của Hermann, Trung tướng William Back, là một trong những nhà lý luận chiến thuật và chiến lược hàng đầu của quân đội Đế quốc Đức, chỉ huy một sư đoàn trong Chiến tranh thế giới thứ nhất và được phong tặng Huân chương Thập tự Xanh, phần thưởng quân sự cao quý nhất của Đức thời bấy giờ.[2][3]Mùa xuân năm 1913, Balck nhập ngũ và trở thành thiếu sinh quân của Tiểu đoàn Biệt kích 10 Hannover – một đơn vị bộ binh sơn chiến đóng tại Goslar. Sau đó, ông học tập tại trường Cao đẳng Quân sự Hannover từ tháng 2 cho đến tháng 8 năm 1914, khi Chiến tranh thế giới thứ nhất bùng nổ và ông cùng tiểu đoàn mình được điều động tác chiến.[4][3]